The number of international benchmarking competitions is steadily increasing in various fields of machine learning (ML) research and practice. So far, however, little is known about the common practice as well as bottlenecks faced by the community in tackling the research questions posed. To shed light on the status quo of algorithm development in the specific field of biomedical imaging analysis, we designed an international survey that was issued to all participants of challenges conducted in conjunction with the IEEE ISBI 2021 and MICCAI 2021 conferences (80 competitions in total). The survey covered participants' expertise and working environments, their chosen strategies, as well as algorithm characteristics. A median of 72% challenge participants took part in the survey. According to our results, knowledge exchange was the primary incentive (70%) for participation, while the reception of prize money played only a minor role (16%). While a median of 80 working hours was spent on method development, a large portion of participants stated that they did not have enough time for method development (32%). 25% perceived the infrastructure to be a bottleneck. Overall, 94% of all solutions were deep learning-based. Of these, 84% were based on standard architectures. 43% of the respondents reported that the data samples (e.g., images) were too large to be processed at once. This was most commonly addressed by patch-based training (69%), downsampling (37%), and solving 3D analysis tasks as a series of 2D tasks. K-fold cross-validation on the training set was performed by only 37% of the participants and only 50% of the participants performed ensembling based on multiple identical models (61%) or heterogeneous models (39%). 48% of the respondents applied postprocessing steps.

Large pretrained language models can easily produce toxic or biased content, which is prohibitive for practical use. In order to detect such toxic generations, existing methods rely on templates, real-world data extraction, crowdsourcing workers, or automatic generation to construct adversarial contexts that are likely to induce toxic generations. However, what type of context is more likely to induce unsafe responses is still under-explored. In this paper, we identify that context toxicity and context category (e.g., \textit{profanity}, \textit{insult}, \textit{drugs}, etc.) are two important factors to cause safety issues in response generation. Hence, we propose a method called \emph{reverse generation} to construct adversarial contexts conditioned on a given response, with the flexibility to control category, toxicity level, and inductivity of the generated contexts. Via reverse generation, we augment the existing BAD dataset and construct a new dataset BAD+ which contains more than 120K diverse and highly inductive contexts in 12 categories. We test three popular pretrained dialogue models (Blender, DialoGPT, and Plato2) and find that BAD+ can largely expose their safety problems. Furthermore, we show that BAD+ can greatly enhance the safety of generation and reveal the key factors of safety improvement. Our code and dataset is available at \url{https://github.com/thu-coai/Reverse_Generation}.

尽管发展了排名优化技术，但点式模型仍然是点击率（CTR）预测的主导方法。它可以归因于点式模型的校准能力，因为可以将预测视为点击概率。在实践中，通常还以排名能力来评估CTR预测模型，基于排名损失（例如，成对或列表损失）的预测模型通常比点置损失更好。先前的研究已经实验了两种损失的直接组合，以从损失中获得收益并观察到改善的性能。但是，先前的研究将输出logit的含义作为点击率，这可能会导致次优的解决方案。为了解决这个问题，我们提出了一种可以共同优化排名和校准能力的方法（简称JRC）。 JRC通过将样品的logit值与不同的标签进行对比，并约束预测概率是logit减法的函数，从而提高了排名能力。我们进一步表明JRC巩固了对逻辑的解释，其中逻辑在其中建模关节分布。通过这样的解释，我们证明JRC近似优化了上下文化的混合歧视生成目标。公共和工业数据集以及在线A/B测试的实验表明，我们的方法提高了排名和校准能力。自2022年5月以来，JRC已被部署在阿里巴巴的展示广告平台上，并获得了显着改进的绩效。

组成零射击学习（CZSL）旨在识别训练过程中从可见状态和物体形成的看不见的构图。由于与不同对象纠缠的视觉外观中相同的状态可能是不同的，因此CZSL仍然是一项艰巨的任务。某些方法使用两个训练有素的分类器识别状态和对象，忽略了对象与状态之间的相互作用的影响；其他方法试图学习状态对象组成的联合表示，从而导致可见和看不见的组成集之间的域间隙。在本文中，我们提出了一种新颖的暹罗对比度嵌入网络（场景）（代码：https：//github.com/xduxyli/scen-master），以实现看不见的构图识别。考虑到状态与物体之间的纠缠，我们将视觉特征嵌入了暹罗对比度空间中，以分别捕获它们的原型，从而减轻了状态与物体之间的相互作用。此外，我们设计了一个状态过渡模块（STM），以增加训练组成的多样性，从而提高识别模型的鲁棒性。广泛的实验表明，我们的方法在三个具有挑战性的基准数据集（包括最近提出的C-QGA数据集）上的最先进方法大大优于最先进的方法。

在本文中，我们介绍了人际内和人际关系网络（I^2R-NET），以进行多人姿势估计。它涉及两个基本模块。首先，人类内部关系模块在一个人身上运行，旨在捕获人类内部依赖性。其次，人际关系模块考虑了多个实例之间的关系，并着重于捕获人间的相互作用。人际关系间的关系模块可以通过减少特征图的分辨率来设计非常轻巧，但学习有用的关系信息以显着提高人类内部关系模块的性能。即使没有铃铛和哨子，我们的方法也可以竞争或胜过当前的比赛获胜者。我们对可可，人群和ochuman数据集进行了广泛的实验。结果表明，所提出的模型超过了所有最新方法。具体而言，所提出的方法在众群数据集上达到了77.4％的AP和Ochuman数据集上的67.8％AP，从而超过了现有方法的大幅度优于较大的利润率。此外，消融研究和可视化分析还证明了我们的模型的有效性。

作为一个新兴的安全学习范式，在利用跨机构私人数据中，垂直联合学习（VFL）有望通过启用广告商和发布者私人拥有的补充用户属性的联合学习来改善广告模型。但是，将其应用于广告系统有两个关键的挑战：a）标记的重叠样本的有限规模，b）实时跨机构服务的高成本。在本文中，我们提出了一个半监督的拆卸框架VFED-SSD，以减轻这两个限制。我们确定：i）广告系统中有大量未标记的重叠数据，ii）我们可以通过分解联合模型来保持模型性能和推理成本之间的平衡。具体而言，我们开发了一个自制任务匹配的配对检测（MPD），以利用垂直分区的未标记数据并提出拆分知识蒸馏（SplitKD）架构，以避免跨机构服务。对三个工业数据集的实证研究表现出我们方法的有效性，在本地部署模式和联合部署模式下，所有数据集的中位数AUC分别提高了0.86％和2.6％。总体而言，我们的框架为实时展示广告提供了一种有效的联邦增强解决方案，其部署成本和大量绩效提升。

In this report, we present PP-YOLOE, an industrial state-of-the-art object detector with high performance and friendly deployment. We optimize on the basis of the previous PP-YOLOv2, using anchor-free paradigm, more powerful backbone and neck equipped with CSPRepResStage, ET-head and dynamic label assignment algorithm TAL. We provide s/m/l/x models for different practice scenarios. As a result, PP-YOLOE-l achieves 51.4 mAP on COCO test-dev and 78.1 FPS on Tesla V100, yielding a remarkable improvement of (+1.9 AP, +13.35% speed up) and (+1.3 AP, +24.96% speed up), compared to the previous state-of-the-art industrial models PP-YOLOv2 and YOLOX respectively. Further, PP-YOLOE inference speed achieves 149.2 FPS with TensorRT and FP16-precision. We also conduct extensive experiments to verify the effectiveness of our designs. Source code and pre-trained models are available at https://github.com/PaddlePaddle/PaddleDetection.

蛋白质通过折叠到特定的3D结构来执行生物学功能。为了准确地模拟蛋白质结构，应仔细考虑氨基酸（例如侧链扭转角度和氨基酸际方向）之间的总体几何拓扑和局部细粒关系。在这项工作中，我们提出了定向的体重神经网络，以更好地捕获不同氨基酸之间的几何关系。我们的新框架将单个重量从标量扩大到3D定向矢量，支持经典和SO（3）的丰富几何操作（3） - 表示特征，在其上，我们构建了一个可用于处理氨基酸的感知器单元信息。此外，我们还引入了一条蛋白质上的范式传递范式，以将定向权重的感知器插入现有的图形神经网络中，从而显示出在全球尺度上保持SO（3） - 均衡性方面的较高多功能性。实验表明，与经典的神经网络和（全球）模棱两可的网络相比，我们的网络在表示几何关系方面具有更好的表现力。它还在与蛋白质3D结构有关的各种计算生物学应用上实现最新性能。

与准确性和计算成本具有密切关系的图像分辨率在网络培训中发挥了关键作用。在本文中，我们观察到缩小图像保留相对完整的形状语义，但是失去了广泛的纹理信息。通过形状语义的一致性和纹理信息的脆弱的启发，我们提出了一个名为时间性解决方案递减的新颖培训策略。其中，我们在时域中随机将训练图像降低到较小的分辨率。在使用缩小图像和原始图像的替代训练期间，图像中的不稳定纹理信息导致纹理相关模式与正确标签之间的相关性较弱，自然强制执行模型，以更多地依赖于稳健的形状属性。符合人类决策规则。令人惊讶的是，我们的方法大大提高了卷积神经网络的计算效率。在Imagenet分类上，使用33％的计算量（随机将培训图像随机降低到112 $ \倍112美元）仍然可以将resnet-50从76.32％提高到77.71％，并使用63％的计算量（随机减少在50％时期的训练图像到112 x 112）可以改善resnet-50至78.18％。

在这项工作中，我们开发了一种数学模型和用于鱼类机器人的机器人模板的仿真平台，即磁性，模块化，过度的机器人（$ \ MU $机器人）。通过这个平台，我们通过加固学习系统地探索了设计和流体参数对游泳性能的影响。数学模型由两个相互作用的子系统，机器人动力学和流体动力学组成，并且流体动力学模型由反应性组分（加压和压力）和电阻部件（阻力和摩擦力）组成，然后为导出键而流动化机器人流体相互作用的“控制参数”。 $ \ mu $机器人通过控制谐波电压信号控制的磁执行器驱动，通过基于EM的政策超参数探索（EPHE）进行了优化，以最大化游泳速度。通过改变控制参数，通过ephe模拟和优化具有不同机器人模板变化的36例具有不同机器人模板变化（致动（NOA）和刚度）和流体动力学参数。结果表明，优化的Gaits（即，沿着身体的行波波的波长与模板变化和流体动力学参数无关。较高的NOA产生更高的速度，但每体长度较低，然而，每体长度的增益和较低的速度降低。身体和尾鳍步态动态由流体添加质量，弹簧和致动扭矩之间的相互作用，具有可忽略的流体电阻阻力的贡献。相比之下，推力产生由作用在尾鳍上的压力，因为稳定的游泳是由电阻力和压力之间的平衡导致的，从增加的群众和身体阻力的少量贡献。因此，添加质量力仅通过尾部动力学间接影响推力生成和游泳速度。